Lời giải:
$y'=3x^2-6mx+3(m^2-1)=0$

$\Leftrightarrow x^2-2mx+m^2-1=0$

$\Leftrightarrow x=m+1$ hoặc $x=m-1$

Với $x=m+1$ thì $y=-2m-2$. Ta có điểm cực trị $(m+1, -2m-2)$

Với $x=m-1$ thì $y=2-2m$. Ta có điểm cực trị $m-1, 2-2m$

$f''(m+1)=6>0$ nên $A(m+1, -2m-2)$ là điểm cực tiểu

$f''(m-1)=-6< 0$ nên $B(m-1,2-2m)$ là điểm cực đại 

$BO=\sqrt{2}AO$

$\Leftrightarrow BO^2=2AO^2$

$\Leftrightarrow (m-1)^2+(2-2m)^2=2(m+1)^2+2(-2m-2)^2$

$\Leftrightarrow m=-3\pm 2\sqrt{2}$

Ta có : \(y'=3x^2-6mx+3\left(m^2-1\right)\)

Để hàm số có cực trị thì phương trình \(y'=0\) có 2 nghiệm phân biệt

                                                             \(\Leftrightarrow x^2-2mx+m^2-1=0\) có 2 nghiệm phân biệt

                                                             \(\Leftrightarrow\Delta=1>0\) với mọi m

Cực đại của đồ thị hàm số là A(m-1;2-2m) và cực tiểu của đồ thị hàm số là B (m+1; -2-2m)

Theo giả thiết ta có :

                         \(OA=\sqrt{2}OB\Leftrightarrow m^2+6m+1\Leftrightarrow\begin{cases}m=-3+2\sqrt{2}\\m=-3-2\sqrt{2}\end{cases}\)

Vậy có 2 giá trị m là \(\begin{cases}m=-3+2\sqrt{2}\\m=-3-2\sqrt{2}\end{cases}\)

Chọn C

Ta có  y ' = 3 x 2 - 6 m x + 3 ( m 2 - 1 )

Hàm số (1) có cực trị thì PT y ' = 0  có 2 nghiệm phân biệt

⇔ x 2 - 2 m x + m 2 - 1 = 0  có 2 nhiệm phân biệt

Khi đó, điểm cực đại A ( m - 1 ; 2 - 2 m ) và điểm cực tiểu  B ( m + 1 ; - 2 m )

Ta có  O A = 2 O B ⇔ m 2 + 6 m + 1 = 0

Ta có y’ = 3x²- 6mx + 3( m²-1).

Hàm số đã cho  có cực trị thì phương trình y’ =0  có 2 nghiệm phân biệt

⇔ x 2 - 2 m x + m 2 - 1 = 0   có 2 nghiệm phân biệt ⇔ ∆ = 1 > 0 , ∀ m   

Khi đó, điểm cực đại  A( m-1; 2-2m) và điểm cực tiểu  B( m+1; -2-2m)

Ta có 

Tổng hai giá trị này là -6.

Chọn C.

Ta có : \(y'=3x^2+3m\)

Điều kiện để hàm số có 2 điểm cực trị là y'=0 có 2 nghiệm phân biệt

\(\Leftrightarrow 3x^2=-3m\) có 2 nghiệm phân biệt

\(\Leftrightarrow m<0\)

Đường thẳng đi qua 2 điểm cực trị là phần dư khi lấy y chia cho y':

\(x^3+3mx+1=\dfrac{x}{3}.(3x^2+3m)+2mx+1\)

\(=>\) đường thẳng đi qua 2 điểm cực trị có dạng: \(y=2mx+1\)

\(\Leftrightarrow 2mx-y+1=0\) \((\Delta)\)

\(d_{(M,\Delta)}=\dfrac{|0.2m+3.(-1)+1|}{\sqrt{4m^2+1}}=\dfrac{2}{\sqrt{5}}\)

\(\Leftrightarrow 4m^2+1=5 \Leftrightarrow m^2=1 \Leftrightarrow m=\pm1\)

Đối chiếu với điều kiện ta được \(m=1\)

a. Hàm có 3 cực trị \(\Rightarrow m< 0\)

\(y'=8x^3+4mx=4x\left(2x^2+m\right)=0\Rightarrow\left[{}\begin{matrix}x=0;y=-\dfrac{3m}{2}\\x=-\sqrt{-\dfrac{m}{2}};y=-\dfrac{m^2+3m}{2}\\x=\sqrt{-\dfrac{m}{2}};y=-\dfrac{m^2+3m}{2}\end{matrix}\right.\)

Trong đó \(A\left(0;-\dfrac{3m}{2}\right)\) là cực đại và B, C là 2 cực tiêu

Do tam giác ABC luôn cân tại A \(\Rightarrow\) tâm I của đường tròn ngoại tiếp luôn nằm trên trung trực BC hay luôn nằm trên Oy

Mà tứ giác ABCO nội tiếp \(\Rightarrow OI=AI\Rightarrow I\)  là trung điểm OA (do I, O, A thẳng hàng, cùng nằm trên Oy)

\(\Rightarrow I\left(0;-\dfrac{3m}{4}\right)\)

Mặt khác trung điểm BC cũng thuộc Oy và IB=IC (do I là tâm đường tròn ngoại tiếp)

\(\Rightarrow\) I trùng trung điểm BC

\(\Rightarrow-\dfrac{3m}{4}=-\dfrac{m^2+3m}{2}\) \(\Rightarrow m\)

b.

Từ câu a ta thấy khoảng cách giữa 2 cực đại là:

\(\left|x_B-x_C\right|=2\sqrt{-\dfrac{m}{2}}=5\Rightarrow m=-\dfrac{25}{2}\)

Opps, phần a lý luận bị nhầm lẫn.

Từ việc IB=IC, và trung điểm BC thuộc Oy ko thể dẫn tới kết luận I là trung điểm BC (vì I, B, C ko thẳng hàng)

Do đó phải sửa lại:

\(\left\{{}\begin{matrix}\overrightarrow{IB}=\left(-\sqrt{-\dfrac{m}{2}};\dfrac{-2m^2-3m}{4}\right)\\\overrightarrow{IO}=\left(0;\dfrac{3m}{4}\right)\end{matrix}\right.\)

\(IB=IO\Rightarrow-\dfrac{m}{2}+\left(\dfrac{-2m^2-3m}{4}\right)^2=\left(\dfrac{3m}{4}\right)^2\)

\(\Leftrightarrow m^4+3m^3-2m=0\)

\(\Leftrightarrow m\left(m+1\right)\left(m^2+2m-2\right)=0\)

\(\Rightarrow\left[{}\begin{matrix}m=0\left(loại\right)\\m=-1\\m=-1+\sqrt{3}\left(loại\right)\\m=-1-\sqrt{3}\end{matrix}\right.\)

\(y=-x^4+2\left(m+1\right)x^2+m+1\left(C_m\right)\)

\(y'=-4x^2+4\left(m+1\right)x=-4x\left(x^2-m-1\right)\)

Xét \(y'=0\Leftrightarrow-4x\left(x^2-m-1\right)=0\) \(\Leftrightarrow\begin{cases}x=0\\x^2=m+1\left(1\right)\end{cases}\)

Hàm số có 3 điểm cực trị khi và chỉ khi phương trình \(y'=0\) có 3 nghiệm phân biệt \(\Leftrightarrow\) phương trình (1) có 2 nghiệm phân biệt khác 0 

\(\Leftrightarrow m+1>0\Leftrightarrow m>-1\) (*)

Với điều kiện (*) phương trình y' = 0 có 3 nghiệm phân biệt \(x,x=\pm\sqrt{m+1}\) và có 3 điểm cực trị của đồ thị \(C_m\) là \(A\left(0;m+1\right);B\left(-\sqrt{m+1;}-\left(m+1\right)^2+m+1;\right);C\left(\sqrt{m+1};-\left(m+1\right)^2+m+1\right)\)

3 điểm cực trị tạo thành 1 tam giác đều :

\(\Leftrightarrow AB=AC=CB\Leftrightarrow AB^2=AC^2=CB^2\) 

\(\Leftrightarrow\begin{cases}AB^2=AC^2\\AB^2=BC^2\end{cases}\)\(\Leftrightarrow\begin{cases}m+1+\left(m+1\right)^4=m+1+\left(m+1\right)^4\\m+1+\left(m+1\right)^4=4\left(m+1\right)\end{cases}\)

                              \(\Leftrightarrow m=\sqrt[3]{3}-1\)

Ta có 

Suy ra đồ thị có hai điểm cực tiểu là  A - m 2 - m + 1 ; y C T và  B m 2 - m + 1 ; y C T

Khi đó 

Dấu  xảy ra khi m=1/2.

Chọn B.

Hai điểm cực trị của \(\left(C_1\right)\) là : \(A\left(0;3\right);B\left(2;-1\right)\Rightarrow\overrightarrow{AB}=\left(2;-4\right)\)

Phương trình AB : \(2x+y-3=0\)

Ta có : \(y'=3x^2-6mx+3\left(m-1\right)\)

           \(x_0=1\Rightarrow y_0=2m-1;y'\left(x_0\right)=-3m\)

Phương trình tiếp tuyến \(\Delta:y=-3m\left(x-1\right)+2m-1\)

                            hay \(3mx+y-5m+1=0\)

Yêu cầu bài toán  \(\Leftrightarrow\cos\left(AB;\Delta\right)=\cos60^0=\frac{1}{2}\)

                          \(\Leftrightarrow\frac{\left|6m+1\right|}{\sqrt{5\left(9m^2+1\right)}}=\frac{1}{2}\Leftrightarrow4\left(6m+1\right)^2=5\left(9m^2+1\right)\)

                          \(\Leftrightarrow99m^2+48m-1=0\)

                          \(\Leftrightarrow m=\frac{-8\pm5\sqrt{3}}{33}\) là những giá trị cần tìm